Sau thời Hô Trù Tuyền (呼廚泉), người Hung Nô bị chia nhỏ thành 5 bộ lạc địa phương. Tình trạng dân tộc phức tạp của các khu định cư hỗn tạp tại khu vực biên giới bắt đầu từ thời Đông Hán đã tạo ra các hậu quả nghiêm trọng, đã không được chính quyền Trung Quốc nắm rõ cho đến tận cuối thế kỷ III. Vào năm 260, Lưu Khứ Ti (劉去卑) đã tổ chức liên minh Thiết Phất (鐵弗) ở miền đông bắc và vào năm 290, Lưu Nguyên Hải (刘元海) đã làm thủ lĩnh của một nhóm nhỏ tại miền tây nam. Vào thời gian này, sự náo động của những người không phải là người Hán đã đạt tới quy mô đáng báo động dọc theo toàn biên giới của nhà Tây Tấn.

Lưu Uyên và nước Hán (304-318)

Năm 304, Lưu Uyên (劉淵) (?-310), người cháu nội đã Hán hóa của Ư Phù La (vốn có tên là Lưu Bang, Uyên chỉ là tên tự, nhưng vì trùng với tên húy của Hán Cao Tổ nên sử sách chỉ dùng tên tự), khuấy động các hậu duệ của người Hung Nô miền nam nổi lên làm loạn tại Sơn Tây, nhân nhà Tây Tấn suy yếu vì loạn bát vương (Bát vương chi loạn). Lưu Uyên nổi lên và sau đó đã hoành hành quanh kinh đô nhà Tây Tấn là Lạc Dương. Quân Lưu Uyên được nhiều người Hán vùng biên giới đi theo và được gọi là Bắc Hán. Lưu Uyên sử dụng từ 'Hán' làm quốc hiệu, hy vọng có được sự ủng hộ của những người còn luyến tiếc quá khứ huy hoàng của nhà Hán và lập kinh đô tại Bình Dương (平阳, ngày nay là Lâm Phần (臨汾)). Người Hung Nô sử dụng một lượng lớn kỵ binh nặng với áo giáp sắt cho cả người và ngựa, làm cho họ có ưu thế quyết định so với quân đội nhà Tấn đã bị suy yếu và nản lòng vì ba năm nội chiến. Năm 311, quân Hán chiếm được Lạc Dương, bắt vua nhà Tấn là Tư Mã Sí (司馬熾-tức Tấn Hoài Đế). Năm 316, vị hoàng đế tiếp theo của nhà Tấn là Tấn Mẫn Đế (晉愍帝) cũng bị bắt tại Trường An và toàn bộ miền bắc Trung Quốc nằm dưới sự thống trị của người Hung Nô trong khi những người còn lại của hoàng tộc nhà Tấn chạy xuống phía nam (các nhà sử học gọi là nhà Đông Tấn).

Lưu Diệu và nước Triệu (318-329)

Năm 318, sau cuộc đảo chính cung đình tại triều đình nước Hán của người Hung Nô (trong đó cả vua Hán (Hán Triệu) và phần lớn các quan lại đều bị thảm sát), một hoàng tử của người Hung Nô là Lưu Diệu (劉曜) (con nuôi của Lưu Uyên) đã dời kinh đô từ Bình Dương tới Trường An và đổi tên nước thành Triệu (趙), vì thế các nhà sử học gọi chung tiểu quốc này là Hán Triệu). Tuy nhiên, khu vực phía đông của miền bắc Trung Quốc đã nằm dưới sự kiểm soát của một viên tướng nước Hán Triệu này là Thạch Lặc (石勒), thuộc nhóm người Yết (羯- có lẽ có tổ tiên gốc Enisei). Lưu Diệu và Thạch Lặc đã đem quân đánh lẫn nhau cho tới tận năm 329, khi Lưu Diệu bị bắt sống tại trận và sau đó bị hành hình. Trường An ngay sau đó bị rơi vào tay Thạch Lặc, và triều đại của người Hung Nô bị xóa bỏ. Miền bắc Trung Quốc đã nằm dưới sự trị vì của Thạch Lặc (nước Hậu Triệu) trong vòng 20 năm sau.

Tuy nhiên, người Hung Nô mang họ "Lưu" vẫn còn hoạt động ở miền bắc trong ít nhất là một thế kỷ nữa.

Thiết Phất và nước Hạ (260-431)

Nhánh Thiết Phất (鐵弗) ở miền bắc của người Hung Nô đã giành được sự kiểm soát khu vực Nội Mông Cổ trong vòng 10 năm từ 376 - 386. Năm 376, nước Đại của người Thác Bạt (một nhánh của người Tiên Ti) bị nước Tiền Tần chinh phục và sau đó phục hồi vào năm 386 đổi tên là Bắc Ngụy. Sau năm 386, người Thiết Phất dần dần bị Thác Bạt bộ Tiên Ty tiêu diệt hoặc bức hàng. Những người Thiết Phất chịu quy phục được gọi là người Độc Cô (獨孤). Lưu Bột Bột (劉勃勃), một hoàng tử sống sót của người Thiết Phất chạy tới khu vực Ordos (vùng Hà Sáo, cao nguyên Hoàng Thổ), thành lập ra một tiểu quốc gọi là nước Hạ (gọi như vậy là do tổ tiên của người Hung Nô được coi là có từ triều đại nhà Hạ) và đổi họ thành Hách Liên (赫連 - tiếng Hung Nô nghĩa là Trời). Nhà nước Hạ của họ Hách Liên sau đó đã bị Bắc Ngụy của người Tiên Ty chinh phục vào năm 431. Người Hung Nô kể từ đây trở đi bị giảm vai trò trong lịch sử Trung Quốc, dần dà bị đồng hóa thành người Tiên Ti và người Hán.